Bình Dương là một phần của tỉnh Thủ Dầu Một xưa kia. Tỉnh Thủ Dầu Một được thành lập tháng 12 năm 1899 từ Sở Tham biện Thủ Dầu Một, tách từ tỉnh Biên Hòa.

Tháng 10 năm 1956, chính quyền Việt Nam Cộng hòa giải thể tỉnh Thủ Dầu Một để thành lập các tỉnh Bình Dương, Bình Long và Phước Long. Như vậy Bình Dương là một trong 22 tỉnh của Nam Phần được chính quyền Việt Nam Cộng Hòa thiết lập theo Sắc lệnh 143-NV ngày 22 tháng 10 năm 1956. Tỉnh lị là thị xã Phú Cường. Tỉnh Bình Dương bao gồm 5 quận, 10 tổng, 60 xã:

• Quận Châu Thành, có 3 tổng là Bình Điền, Bình Phú, Bình Thiện; quận lỵ: Phú Cường.
• Quận Lái Thiêu, có 1 tổng là Bình Chánh; quận lị: Tân Thới.
• Quận Bến Cát, có 2 tổng là Bình An, Bình Hưng; quận lỵ: Mỹ Phước.
• Quận Trị Tâm (Dầu Tiếng), có 1 tổng là Bình Thạnh Thượng; quận lỵ: Định Thành.
• Quận Củ Chi, có 3 tổng là Long Tuy Hạ, Long Tuy Trung, Long Tuy Thượng; quận lỵ: Tân An Hội. Quận Củ Chi vốn trước đây là một phần quận Hóc Môn, tỉnh Gia Định, đến năm 1963 chuyển sang tỉnh Hậu Nghĩa mới thành lập.

Năm 1959, cắt một phần đất, cùng với phần đất của các tỉnh Biên Hòa, Long Khánh, Phước Long, để lập tỉnh Phước Thành. Tỉnh này tồn tại đến năm 1965 thì giải thể.

Ngày 18 tháng 12 năm 1963, tách một phần quận Củ Chi về tỉnh Hậu Nghĩa mới thành lập. Phần còn lại của quận Củ Chi lập thành quận Phú Hòa, quận lị đặt tại Bến Cỏ, xã Phú Hòa Đông, sau dời về xã Tân Hòa. Sau năm 1975, quận Phú Hòa lại nhập với quận Củ Chi, tỉnh Hậu Nghĩa thành huyện Củ Chi thuộc Thành phố Hồ Chí Minh.

Năm 1965, quận Phú Giáo của tỉnh Phước Thành vừa giải thể được nhập vào tỉnh Bình Dương.

Năm 1976, chính quyền mới hợp nhất 3 tỉnh Bình Dương, Bình Long và Phước Long cũ thành tỉnh Sông Bé, đến ngày 1 tháng 1 năm 1997 lại tách ra thành hai tỉnh Bình Dương và Bình Phước.

Khi vừa tái lập, tỉnh Bình Dương có diện tích 2.718,5 km², dân số 646.317 người, gồm thị xã Thủ Dầu Một và 3 huyện: Bến Cát, Tân Uyên, Thuận An. Tỉnh lỵ đặt tại thị xã Thủ Dầu Một.

Ngày 23 tháng 7 năm 1999, huyện Thuận An được chia thành 2 huyện Thuận An và Dĩ An, huyện Bến Cát được chia thành 2 huyện Bến Cát và Dầu Tiếng, huyện Tân Uyên được chia thành 2 huyện Tân Uyên và Phú Giáo[23].

Bình Dương có 7 đơn vị hành chính cấp huyện, gồm thị xã Thủ Dầu Một (tỉnh lỵ) và 6 huyện: Bến Cát, Dầu Tiếng, Dĩ An, Phú Giáo, Tân Uyên, Thuận An.

Ngày 13 tháng 1 năm 2011, Chính phủ ra Nghị quyết 04/NQ-CP, chuyển huyện Thuận An thành thị xã Thuận An và chuyển huyện Dĩ An thành thị xã Dĩ An[24].

Ngày 2 tháng 5 năm 2012, Chính phủ ra Nghị quyết 11/NQ-CP, chuyển thị xã Thủ Dầu Một thành thành phố Thủ Dầu Một[25].

Ngày 29 tháng 12 năm 2013, Chính phủ ra Nghị quyết 136/NQ-CP chia huyện Bến Cát thành thị xã Bến Cát và huyện Bàu Bàng, chia huyện Tân Uyên thành thị xã Tân Uyên và huyện Bắc Tân Uyên[26].

Bình Dương có 9 đơn vị hành chính cấp huyện, gồm 1 thành phố, 4 thị xã và 4 huyện.

Ngày 8 tháng 7 năm 2014, Thủ tướng Chính phủ ban hành Quyết định 1120/QĐ-TTg công nhận thành phố Thủ Dầu Một là đô thị loại II[27].

Ngày 27 tháng 4 năm 2017, Bộ xây dựng công nhận 2 thị xã Dĩ An và Thuận An là đô thị loại III.[28]

Ngày 6 tháng 12 năm 2017, Thủ tướng Chính phủ ban hành Quyết định 1959/QĐ-TTg công nhận thành phố Thủ Dầu Một là đô thị loại I trực thuộc tỉnh Bình Dương[29].

Ngày 24 tháng 10 năm 2018, Bộ Xây dựng công nhận 2 thị xã Bến Cát và Tân Uyên là đô thị loại III.[30]

Ngày 10 tháng 1 năm 2020, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 857/NQ-UBTVQH14 thành lập thành phố Dĩ An và thành phố Thuận An trên cơ sở toàn bộ diện tích và dân số của hai thị xã có tên tương ứng.[31]

Tỉnh Bình Dương có 3 thành phố, 2 thị xã và 4 huyện như hiện nay.